隱私計算：防禦方法和技術(1/3)
隱私計算：防禦方法和技術(2/3)
隱私計算：防禦方法和技術(3/3)

其中一些仍處於理論階段。

• 合成資料集(Synthetic Datasets)
• 差分隱私(Differential Privacy)
• 同態加密(Homomorphic Encryption)
• 安全聚合(Secure Aggregation)
• 分散式訓練(Distributed Training)
  • 分割學習(Split Learning)
  • 安全多方計算(Secure Multi-Party Computation)
  • 聯邦學習(Federated Learning)

合成資料集(Synthetic Datasets)

如何做好？

• 保留統計屬性
• 刪除個人訊息

欺詐識別(Fraud detection)

• 健全測試(Sanity Check)
  保留一些原始資料進行測試。

差分隱私(Differential Privacy)

• 向資料添加噪聲技術(Noise Techniques)
  防止推理攻擊，不希望模型記住資料，以後可能會對其進行逆向工程。
  在不記憶的情況下學習資料集中的常見模式。
• 根據指定的隱私級別其準確性顯著下降
  資料飢渴(Data-Hungry)，資料越多，隱私越多，噪音越小。
• 一種數學保證
  確保 ML 算法的輸出、特定人的資料是否用於訓練過程。
• 正式的數學證明
  在等式中，其中的概率 A 所有 C 範圍 ，如果對於任何兩個調整後的資料庫，則是不同的私有 D 和 D' 僅在一個元素中發生變化的存在。
• 研究人員將這個數學證明進一步擴展
  它引入了一個額外的 δ 特徵來限制錯誤的概率。
  (e, δ)-DP